上海交通大学机器人研究所最近完成了“助行机器人”的研发。这种像一部“智能小车”的机器人（许多机器“人”其实并不是“人形”的），能自己识别道路，自行确定行驶路线……带着行动困难或视力有障碍的人出行。
但这款机器人真要实际应用，甚至推向市场，障碍还很多：它应该遵守什么交通规则？是针对行人的交通规则，还是机动车行驶规则？如果它造成了交通事故，该如何处理？上海交大机器人研究所常务副所长曹其新教授说：“这些问号已经让我们纠结了很久。”
曾经在上海世博会露过面的另一些机器人，比如伴侣机器人、餐厅机器人、医疗机器人，一样让人纠结：如果它们在工作中出了差错造成事故，该由谁负责？特别是，这些机器人都是“高智能”的，有学习功能、能“自学成才”，也就是说，一段时间之后，它不再是出生时的它了；它会像人一样，根据自己的所“见”所“想”自作主张——要是想法走偏瞎搞一气怎么办？
人类创造了机器人，但机器人一旦拥有智能，需要的就不仅仅是维护和修理，更得做规矩约束，要让它的想法和行为合乎人类世界的伦理道德。
“研究机器人，都知道‘机器人三原则’——机器人不能伤害人类，也不能眼看人类将要遇到伤害而袖手旁观；机器人必须服从人的命令，除非这些命令与第一条原则相违背；机器人应该能保护自己，但与前两条原则相违背的情况除外。”德国汉堡大学多模式技术研究所所长张建伟教授说，这三条原则，最早由美国科幻作家阿西莫夫在他写于1942年的一个短篇小说中提出；后来，有的科学家加了“第零原则”——“机器人可以什么都不做，除非他的行动符合三原则”，又有人加了“第四原则”——“机器人不得参与机器人的设计和制造，除非新的机器人的行为能服从三原则。”不过，大家广泛认同的还是“机器人三原则”。
曹其新教授介绍说，对于机器人用于医疗领域和研发医疗机器人，目前美国未加限制，欧洲定了一些规矩，而日本根据“机器人三原则”，明确禁止。这类机器人直接跟人的生命打交道，伦理问题最为突出：它具备人工智能，可以自主学习并独立手术，但如果“学艺不精”出了事故，那是不是意味着没有遵守“三原则”？或者，机器人在手术时发现患者病入膏肓、已没有继续手术的必要，因此不做了，那又如何评判这种行为的对错？曹教授说，“伦理道德还不完善”的机器人，不适合用在敏感领域。
其实，现在大多数用于医疗的机器人，并不是智能机器人，都需要人工操作，可以说是一种高端医疗器械。
随着智能机器人研发的不断进展，当机器人也会有想法时，问题就复杂了。今年5月初，欧盟评出了对未来影响最大的六项技术，其中一项是伴侣机器人。科学家们纷纷预言，不久的将来，家家户户都会有个机器人。
当伴侣机器人成为家庭一员，这些能自主学习、自己成长，能像人一样思考和做决定，而行动能力比人更胜一筹的家伙，需要遵守哪些规矩？机器人的伦理道德，逐渐成为学界关注的热点。
不久前，上海交通大学主办了全球机器人大会，收到好几篇探讨机器人伦理道德的论文。而据说在过去的会议上，这类论文几乎没有。前来参会的日本东北大学教授小菅一弘介绍，机器人研发领域的国际顶级期刊今年1月专门出了一期专刊，主题就是“RobotEthics”，这一前沿课题的几位重要学者都发表了文章。他还说，日本2002年就在福冈市尝试制订了针对机器人的交通规则，福冈由此成为全球第一个机器人可以上路行走的城市。
韩国和一些欧洲国家表示，有意制订“机器人道德法”，以此作为机器人研制者、使用者以及机器人本身的道德伦理规范和行为准则；它对机器人产业将有重大指导作用，“机器人道德法”的各项规定将编写成电脑程序，安装于机器人。
还有科学家提出，人的大脑的某些部分如果损伤，今后可以用芯片修复；如果芯片对人脑原有“部件”的替换率达到一定程度，这样的人该怎么定义？“机器人道德法”对他们是不是也部分适用？
美国著名的神经科学家尼科莱利斯在他最新发表的一篇论文中提出：“这些都已是科学界应该思考的问题。”
科院微电子研究所所长、国家“02”重大专项专家组组长叶甜春研究员说，就目前的技术水平来说，让机器人自己作伦理道德判断并不可行。现在的技术还只能对机器人发出非常明确的指示，或者让机器人根据明确的标准作出“是”与“非”的判断，而伦理道德显然是一种复杂判断、模糊判断，机器人还处理不了。但叶甜春指出，随着技术快速发展和家用机器人出现，机器人的伦理道德我们必须关注，“千万不能等出问题了，再亡羊补牢”。目前，国内研究机器人伦理道德的学者寥寥无几。曹其新教授说，现在学界很看好第三代机器人技术，这种被称为“泛在机器人”即“无所不在的机器人”的有智能的家伙，可以识别人的声音指示，甚至能学会对主人察言观色，满足主人的需求……可是，“我们如何保证机器人的判断和行为符合人类伦理道德，包括保证它不为了满足主人的要求而违背人类伦理道德呢？当家用机器人普及之时，再去关注和思考这些事，将为时已晚。”